Sau chiến tranh, Hemingway quay trở lại Oak Park, Putnam, Thomas. “Hemingway on War and Its Aftermath”. Truy cập 5 tháng 5 năm 2008.  và trong năm 1920, ông chuyển đến một căn hộ tại 1599 Phố Bathurst, mà bây giờ được biết đến với cái tên The Hemingway, trong vùng Humewood-Cedarvale tại Toronto, Ontario.“A National Post article on Toronto's Humewood-Cedarvale neighborhood”.  Trong khi sống tại đây, ông kiếm được một công việc tại tòa báo Toronto Star. Ông làm việc với tư cách phóng viên tự do, chủ bút, và thông tín viên nước ngoài. Hemingway đối xử rất tốt với người đồng chí Star - phóng viên Morley Callaghan. Callaghan đang bắt đầu viết những truyện ngắn vào thời điểm đó; ông đem chúng tới cho Hemingway xem, và Hemingway khen ngợi chúng là những tác phẩm hay. Sau này họ gặp lại nhau ở Paris.

Trong vòng một thời gian ngắn từ cuối năm 1920 tới gần hết năm 1921, Hemingway sống gần mạn bắc Chicago, trong khi vẫn sắp chữ (filing stories) cho The Toronto Star. Ông cũng là trợ lý biên tập của Co-operative Commonwealth, một tờ báo tháng. Ngày 3 tháng 9 năm 1921, Hemingway cưới người vợ đầu tiên, Hadley Richardson. Sau tuần trăng mật, họ chuyển tới một căn hộ chật hẹp ở tầng trên cùng tại lô 1300 Phố Clark.Brown, Alan, "Literary Landmarks of Chicago," 2004, Starhill Press, ISBN 0-913515-50-7. Trong tháng 9, họ chuyển đến căn hộ trên tầng 4 (tầng thứ 3 theo tiêu chuẩn công trình của Chicago) tại 1239 North Dearborn ở một khu vực trong tình trạng đổ nát gần mạn bắc Chicago. Tòa nhà này hiện vẫn còn và trước cửa có một tấm biển đề "The Hemingway Apartment" ("Căn hộ nhà Hemingway"). Hadley thấy nó có vẻ tối và tạo cảm giác buồn nên vào tháng 12 năm 1921, gia đình Hemingway rời khỏi Chicago và Oak Park, không bao giờ sống ở đó nữa, chuyển sang sống ở nước ngoài.

Theo lời khuyên của Sherwood Anderson, họ định cư tại Paris, Pháp, và chính tại nơi đây Hemingway gửi tin về Chiến tranh Hy Lạp - Thổ Nhĩ Kỳ cho tờ Toronto Star. Hemingway đã chứng kiến một trong những sự kiện nổi tiếng nhất của cuộc chiến có tầm quan trọng nhưng bị coi là vô nghĩa này, đó là cảnh Smyrna bị hỏa thiêu thảm khốc, một sự kiện mà ông đã đề cập trong nhiều mẩu truyện ngắn của mình. Anderson đã gửi cho ông một lá thư giới thiệu tới Gertrude Stein. Bà trở thành cố vấn của ông và giới thiệu ông với "Parisian Modern Movement" (tạm dịch: Phong trào Đổi mới Paris) đang tiến triển tại Khu Montparnasse; đây chính là sự khởi đầu của nhóm những người Mỹ xa xứ được biết đến với tên gọi "Thế hệ vứt đi" (Lost Generation), một thuật ngữ được truyền bá bởi Hemingway trong lời đề từ của một cuốn tiểu thuyết, Mặt trời vẫn mọc (tựa gốc: The Sun Also Rises), và cuốn tự truyện A Moveable Feast (tạm dịch: Hội hè miên man) của ông. Tính ngữ (epithet) "Thế hệ vứt đi" được cô Stein sử dụng lại từ một thợ sửa chữa ô tô người Pháp của cô khi người này vui vẻ đưa ra nhận xét về cô là "une génération perdue". (Cô Stein nói: "'Các bạn là thứ đó. Tất cả các bạn là thứ đó. Tất cả các bạn, những người trẻ phục vụ trong chiến tranh. Các bạn là một thế hệ vứt đi.'" ("That's what you are. That's what you all are,' Miss Stein said. 'All of you young people who served in the war. You are a lost generation." - lấy từ cuốn tự truyện của Hemingway được xuất bản sau khi ông qua đời, A Moveable Feast.) Một người cố vấn có ảnh hưởng tới ông là Ezra Pound,Vào ngày 10 tháng 8 năm 1943, Hemingway viết thư cho Archibald MacLeish để bàn luận về sức mạnh tinh thần của Pound và các vấn đề văn chương khác. người sáng lập ra chủ nghĩa hình tượng. Hemingway sau đó đã nói về nhóm chiết trung này, "Ezra đã đúng trong phân nửa thời gian, và khi ông ấy sai, ông ấy sai đến mức bạn không bao giờ phải nghi ngờ về điều đó. Gertrude thì luôn luôn đúng." ("Ezra was right half the time, and when he was wrong, he was so wrong you were never in any doubt about it. Gertrude was always right.")Trong một cuộc trò chuyện với John Peale Bishop, được trích từ Hemingway, Cowley, ed, 1944, p. xiii. Nhóm thường tới cửa hàng sách của Sylvia Beach, Shakespeare & Co., tại 12 Phố Odéon (Rue de l'Odéon). Sau lần xuất bản năm 1922 và lệnh cấm của Mỹ đối với cuốn tiểu thuyết Ulysses của người đồng sự James Joyce, Hemingway đã nhờ những người bạn tại Toronto mang lén những bản sao của cuốn tiểu thuyết về Mỹ (Hemingway viết về cuộc gặp mặt và trò chuyện với Joyce tại Paris trong A Movable Feast). Cuốn sách đầu tiên của ông, có tên Three Stories and Ten Poems (tạm dịch: Ba câu chuyện và mười bài thơ) (1923), được xuất bản tại Paris bởi Robert McAlmon.

Sau nhiều thành công với tư cách là thông tín viên nước ngoài, Hemingway trở lại Toronto, Canada năm 1923 và viết dưới bút danh Peter Jackson.Jackson, Peter; better known as Ernest Hemingway (ngày 31 tháng 7 năm 2008). “Hemingway feared for High Park's great trees”. Toronto Star. Truy cập ngày 31 tháng 7 năm 2008.  Chú thích sử dụng tham số |coauthors= bị phản đối (trợ giúp) Trong lần thứ hai sinh sống (stint living) tại Toronto, ông có người con trai đầu tiên. Cậu bé được đặt tên là John Hadley Nicanor Hemingway, nhưng sau đó được quen gọi là Jack. Hemingway đã đề nghị Gertrude Stein làm cha đỡ đầu của cậu.

Cũng vào thời điểm đó, có những bất hòa gay gắt xảy ra giữa Hemingway và người biên tập của ông - Harry Hindmarsh, người tin rằng Hemingway đã trở nên tồi tệ trong thời gian ông sống ở nước ngoài.Dateline: Toronto, Foreword, pp xxv-xxvii, Charles Scribner Jr. Hindmarsh giao cho Hemingway những nhiệm vụ tầm thường (mundane assignments), khiến Hemingway thất vọng và ông quyết định viết đơn xin thôi việc vào tháng 12 năm 1923. Tuy nhiên, việc này không được chấp thuận, và Hemingway vẫn tiếp tục viết cho The Toronto Star nhưng không thường xuyên cho đến hết năm 1924.“Hem and The Star: Parting was inevitable”. The Toronto Star. Ngày 2 tháng 2 năm 1986.  Hầu hết những bài mà Hemingway viết cho Star sau này được xuất bản trong tuyển tập Dateline: Toronto vào năm 1985.

Sự nghiệp văn chương tại Mỹ của Hemingway bắt đầu với việc tập truyện ngắn Trong thời đại của chúng ta (tựa gốc: In Our Time) của ông được xuất bản (1925). Những đoản văn tạo nên các chương của phiên bản tại Mỹ (that now constitute the interchapters of the American version) ban đầu được xuất bản ở châu Âu với tựa in our time (1924). Tác phẩm này rất quan trọng đối với Hemingway, vì nó tái khẳng định với ông rằng văn phong cực kì đơn giản của ông vẫn có thể được chấp nhận bởi giới văn học. "Big Two-Hearted River"(tạm dịch: Dòng Sông Rộng Có Hai Tâm Hồn) là truyện nổi tiếng nhất của tuyển tập này.

Vào tháng 4 năm 1925, hai tuần sau khi The Great Gatsby (tạm dịch: Gatsby Vĩ đại) được xuất bản, Hemingway đã gặp F. Scott Fitzgerald tại quán bar Dingo. Fitzgerald và Hemingway đã trở thành bạn thân ngay lần đầu gặp mặt, và từ đó họ thường xuyên uống rượu và trò chuyện cùng nhau. Thỉnh thoảng họ trao đổi cho nhau những bản thảo, cùng với đó Fitzgerald đã cố gắng rất nhiều để giúp công việc Hemingway tiến triển và đưa tuyển tập truyện đầu tiên của ông ra công chúng. Hemingway và vợ của Fitzgerald - Zelda tỏ ra không hề ưa nhau khi Zelda gọi Hemingway là một kẻ "đểu giả" (gốc: "phony"). Quan hệ vợ chồng Fitzgerald và Zelda xuất hiện những bất hòa trong thời gian này, và Zelda đã nói với Scott rằng đời sống tình dục của họ đã xuống dốc bởi vì ông là một kẻ đồng tính (gốc: "a fairy") và có quan hệ luyến ái với Hemingway. Chưa có bắng chứng rằng hai người là đồng tính, nhưng dù sao Scott đã quyết định ngủ với một người gái điếm để chứng minh mình là đàn ông thực sự.Bruccoli 2002, tr. 275

Những mối liên hệ của Hemingway ở Pháp tạo cảm hứng cho sự ra đời của cuốn tiểu thuyết dài đầu tiên, Mặt trời vẫn mọc (tựa gốc: The Sun Also Rises) (1926) (được xuất bản tại Vương Quốc Anh với tựa đề "Fiesta").Đây là một tiểu thuyết có tính chất nửa tự truyện, kể về một nhóm những người Mỹ xa xứ quanh Paris và Tây Ban Nha. Bối cảnh của truyện được đặt tại Pamplona, trong kì lễ hội. Tiểu thuyết trở nên nổi tiếng khắp châu Âu và Mỹ và nhận được nhiều lời khen trong giới phê bình.

Hemingway ly dị với Hadley Richardson năm 1927 và cưới Pauline Pfeiffer, một người sùng đạo Thiên Chúa đến từ Piggott, Arkansas. Pfeiffer là một phóng viên thời trang không thường xuyên, làm xuất bản trong các tạp chí như Vanity Fair và Vogue.“Hemingway Resource Center”.  Hemingway cũng trở thành một tín đồ Thiên chúa giáo vào thời gian này. Đây là năm mà tuyển tập truyện ngắn Men Without Women] (tạm dịch: Đàn Ông Không Đàn Bà) được xuất bản, trong đó The Killers(tạm dịch: Những Kẻ Sát Nhân) là một trong những truyện ngắn nổi bật nhất và được chọn in nhiều lần nhất của ông. Năm 1928, Hemingway và Pfeiffer chuyển đến Key West, Florida, để bắt đầu một cuộc sống mới. Tuy nhiên, cuộc sống mới của họ sớm rạn nứt bởi bi kịch khác lại đến với cuộc đời ông.

Năm 1928, cha Hemingway, Clarence, gặp rắc rối với bệnh tiểu đường (gốc: Diabetes mellitus) và tình trạng mất ổn định về tài chính, nên đã tự vẫn bằng một khẩu súng lục cũ từ thời Nội Chiến. Điều này khiến Hemingway đau đớn tột cùng và có vẻ đã được ông tái hiện qua chuyện cha của Robert Jordan tự tử trong cuốn tiểu thuyết Chuông nguyện hồn ai. Ông ngay lập tức tới Oak Park để làm lễ mai táng và gây ra tranh cãi khi nói rằng theo quan điểm Thiên chúa giáo, ông nghĩ cha ông sẽ phải xuống địa ngục. Cũng trong khoảng thời gian đó, Harry Crosby, người sáng lập Black Sun Press và một người bạn của Hemingway khi ông ở Paris, cũng quyết định tự tử.

Cùng năm đó, người con trai thứ hai của Hemingway, Patrick, sinh ra ở Kansas City (người con trai thứ ba của ông, Gregory, ra đời vài năm sau đó). Cậu bé được sinh ra nhờ cách phẫu thuật (gốc: Caesarean section) do vợ ông bị khó sinh. Chi tiết của sự việc này đã xuất hiện trong phần cuối củaGiã từ vũ khí. Hemingway sống và viết phần lớn tiểu thuyết Giã từ vũ khí và vài ba truyện ngắn ở nhà của cha mẹ Pauline tại Piggott, Arkansas. Nhà của Pfeiffer và Nhà của Carriage nay đã trở thành viện bảo tàng thuộc sở hữu của Đại học bang Arkansas.

Được xuất bản năm 1929, Giã từ vũ khí (tựa gốc: A Farewell to Arms) kể lại chuyện tình lãng mạn giữa Frederic Henry,một sĩ quan Mỹ, và Catherine Barkley, một y tá Anh. Tiểu thuyết mang nặng tính tự truyện: cốt truyện lấy cảm hứng trực tiếp từ mối quan hệ của ông với Agnes von Kurowsky ở Milan; quá trình sinh con của Catherine lấy cảm hứng từ những cảm giác rất đau đớn của Pauline khi sinh ra Patrick; cuộc đời thực của Kitty Cannell là cảm hứng cho nhân vật Helen Ferguson; người linh mục dựa theo Don Giuseppe Bianchi, một linh mục trong trung đoàn thứ 69 và 70 của Brigata Ancona. Trong khi đó, cảm hứng về nhân vật Rinaldi khá mơ hồ, nhân vật này đã từng xuất hiện trong Trong thời đại của chúng ta. Giã từ vũ khí đã được xuất bản trong thời điểm mà những cuốn sách viết về Chiến tranh thế giới I khá nhiều, như Her Privates We của Frederic Manning, All Quiet on the Western Front của Erich Maria Remarque, Death of a Hero của Richard Aldington, và Goodbye to All That của Robert Graves. Sự thành công của Giã từ vũ khí giúp cho Hemingway ổn định hơn về tài chính.